Na era digital de hoje, a segurança online das crianças é uma preocupação crescente. Recentemente, Roblox, Discord, OpenAI e Google lançaram uma organização sem fins lucrativos chamada ROOST (Ferramentas de Segurança Online Abertas e Robustez), com o objetivo de construir uma infraestrutura de segurança escalável e interoperável para a era da IA. O objetivo desta nova organização é fornecer ferramentas de segurança de código aberto para organizações públicas e privadas, ajudando-as a melhorar a segurança em suas próprias plataformas, com foco especial na segurança das crianças. Nota da imagem: Imagem gerada por IA

O Google lançou uma série de medidas de segurança online para limpar conteúdo de deepfakes da pesquisa, especialmente imagens explícitas não consensuais. Quando os usuários solicitam a remoção desse conteúdo, o sistema não apenas processa o conteúdo específico, mas também filtra resultados semelhantes, inclusive removendo imagens duplicadas. Para evitar que esse conteúdo apareça em posições de destaque nos resultados de pesquisa, o Google ajustou o mecanismo de classificação de pesquisa, mostrando conteúdo de alta qualidade e não explícito, como reportagens de notícias, para consultas que buscam imagens de deepfakes de pessoas reais. Sites com grande quantidade de imagens explícitas falsas removidas terão sua classificação na pesquisa reduzida.

Novos padrões de segurança online lançados pela Austrália geram preocupações em empresas de tecnologia. Gigantes como Microsoft e Meta temem que os padrões possam enfraquecer a proteção de seus sistemas de IA. Os novos padrões, direcionados à IA generativa, abordam a segurança infantil e materiais relacionados ao terrorismo. As empresas de tecnologia argumentam que os padrões podem restringir o treinamento de IA e afetar a precisão da moderação de conteúdo.